What to Expect When You’re Expecting … GPT-4
public.icon
What to Expect When You’re Expecting … GPT-4
Gary Marcus
@bioshok3: https://t.co/jD6U6W5aTC
基本的には現状の大規模言語モデルなどには保守的で冷静な見方をされているゲイリーマーカスさんでさえ「GPT-4が出たらみんな衝撃を覚えることは間違いないし、怪物だ」と言っている。
その一方でGPT3で起こっていた同じような問題は引き続き残るだろうと（7つ位あげてる）。
@0xtkgshn: これ面白かった, GPT4が誕生しても出来ないことを書いてて、それがなぜ構造的に出来ないのかというところ。
@0xtkgshn: 個人的にはこれらへの解決策は、一つフィルタリング的な話で Decentralized AIだと思ってる。
https://pbs.twimg.com/media/Fk9evXKXwAEf1xf.jpg
MIT Tech Review: 大規模言語AIにアキレス腱、訓練用データが2026年にも枯渇か
Semantic Web Technologies for Explainable Machine Learning Models: A Literature Review
Semantic Annotation
related: Can ChatGPT Make This Podcast? - The New York Times